3h ngày 17 rạng sáng ngày 18/3, quân đội chính phủ Thiers tới chiếm các vị trí chiến lược bên tả ngạn sông Seine. 1 nhóm khác cũng được điều đến các kho đại bác của Paris. Mục tiêu chủ yếu của quân đội chính phủ là đồi Montmartre ở phía Bắc thành phố để chiếm các trọng pháo của quân vệ quốc. Đến 5h30, quân chính phủ chiếm được các trọng pháo nhưng chưa di chuyển đi được. Sau các tiếng kèn tập hợp và chuông báo động, quân vệ quốc tiến tới bao vây đồi. Trong cuộc chiến, nhiều binh lính quân chính phủ đã nghiêng về phía quân vệ quốc, viên tướng chỉ huy bị bắn chết tại chỗ. Tới 9h, lực lượng chính phủ thất bại, vội vã lui quân. Buổi trưa, Ủy ban Trung ương Vệ quốc ra lệnh các tiểu đoàn tiến vào trung tâm thành phố. Chỉ sau vài tiếng đồng hồ, quân vệ quốc đã chiếm được các cơ quan đầu não của phủ, tòa thị chính và các trại lính. Đến buổi chiều, Thiers cùng chính phủ phải rút về Versailles.[9]

Ngày 26/3, bầu cử Hội đồng Công xã được tiến hành và ngày 28, kết quả được công bố. Trong số 85 đại biểu trúng cử, có 25 công nhân, 15 đại biểu thuộc tầng lớp tư sản trúng cử nhưng sớm từ chức sau đó. Phần còn lại gồm các bác sĩ, nhà báo, giáo viên, công chức... Khoảng gần 30 đại biểu của Hội đồng Công xã là hội viên của Quốc tế thứ nhất và cũng có cả những người ngoại kiều gốc Nga, Ba Lan, Hungary. Cuối tháng 3, do ảnh hưởng của Công xã Paris, nhiều cuộc khởi nghĩa khác cũng nổ ra ở Marseilles, Lyon, Toulouse,...[10]

Sắc lệnh đầu tiên của Công xã là bãi bỏ quân đội thường trực và bộ máy cảnh sát cũ. Việc giữ an ninh được thay bằng lực lượng công nhân có vũ trang. Chính quyền của giai cấp công nhân cũng được thành lập. Cơ quan tối cao của nhà nước là Hội đồng Công xã có vai trò lập pháp và tổ chức 10 ủy ban chịu trách nhiệm về hành pháp. Mỗi ủy ban này do 1 ủy viên của Hội đồng Công xã làm chủ tịch. Công xã cũng ra sắc lệnh tách nhà thờ khỏi hoạt động của nhà nước, giới tăng lữ không can thiệp vào công việc của chính quyền và ngân sách tôn giáo bị hủy bỏ. Tất cả tài sản của các giáo hội trở thành tài sản quốc gia, giáo dục cũng tách khỏi nhà thờ. Để tuyên truyền trong hoàn cảnh bị bao vây, Công xã Paris còn sử dụng khinh khí cầu rải truyền đơn tới các vùng nông thôn.[11]

Trong khi đó, quân đội Phổ và quân đội Versailles vẫn tiếp tục bao vây Paris. Chính phủ Versailles cùng 1 số báo chí đưa nhiều tin bất lợi cho Công xã Paris, như Công xã sẽ tiêu diệt tất cả các quyền sở hữu. Nhiều nông dân lo ngại chính quyền của Công xã Paris.